Während die EU-Staaten sich weiterhin über die Chatkontrolle streiten, versucht die belgische Ratspräsidentschaft weiter an Details zur geplanten EU-Verordnung zu arbeiten. So sandte sie in den letzten Wochen Vorschläge zu einer Risikoeinstufung für Online-Dienste an die Ratsarbeitsgruppe Strafverfolgung, in der die EU-Mitgliedstaaten zum Thema verhandeln. Wir veröffentlichen die beiden aufeinander aufbauenden Vorschläge aus dem März und dem April.
Bei der Chatkontrolle, wie sie die EU-Kommission vor etwa zwei Jahren vorgeschlagen hat, sollen Anbieter von Kommunikations- und Hostingdiensten auf Anordnung die Inhalte ihrer Nutzenden scannen, um Hinweise auf sexualisierte Gewalt gegen Kinder oder Anbahnungsversuche von Erwachsenen an Minderjährige zu suchen. Ob ein Diensteanbieter eine solche Anordnung bekommt, soll wesentlich vom Risiko abhängen, das von dem entsprechenden Dienst ausgeht.
Das Risiko entscheidet
Doch wie soll dieses Risiko bestimmt werden?
In einem frühen Entwurf der Einstufungskriterien wurde deutlich, dass die belgische Ratspräsidentschaft es als besonderes Risiko einstuft, wenn Dienste verschlüsselte Kommunikation oder eine anonyme Nutzung ermöglichen. Dieser Tenor bleibt in den Folgeversionen des Entwurfs bestehen. In einer Fußnote heißt es dazu:
In dieser Rangliste sind Aktivitäten mit direkter Echtzeitkommunikation (Livestreaming, Messaging) aufgrund ihrer unmittelbaren und potenziell ungefilterten Natur am stärksten gefährdet. Verschlüsselte Nachrichten folgen dicht dahinter, aufgrund von Bedenken hinsichtlich der Privatsphäre und des Missbrauchspotenzials.
Neben dieser Einordnung gibt es jedoch noch weitere vorgeschlagene Kriterien. Darunter sind: Wie viele Menschen nutzen den Dienst? Ist er auch für Kinder zugänglich? Kann ein Hosting-Dienst Inhalte mit Strafverfolgungsbehörden teilen? Können Nutzende Inhalte speichern oder Screenshots erstellen? Hat ein Anbieter klare und leicht auffindbare Regeln und Funktionalitäten, wie er mit potenziellen Missbrauchsinhalten umgeht?
Wer nicht freiwillig scannt, ist ein Risiko
Unter den erwähnten Funktionalitäten sind auch explizit Technologien zum Scannen nach bekannten Missbrauchsdarstellungen erwähnt. Solche Technologien nutzen bereits Anbieter wie Meta. Sie gleichen etwa Bilder auf ihren Plattformen über Hashwerte mit Datenbanken ab, in denen bekannte Missbrauchsdarstellungen gesammelt sind. Das geschieht in der Regel bereits beim Upload eines Bildes, um seine weitere Verbreitung zu verhindern.
Sollte ein Anbieter eine solche Technologie nicht nutzen, gebe das „Anlass zu Bedenken, ob die Plattform in der Lage ist, die Verbreitung von schädlichem Material wirksam einzudämmen“. Das heißt: Wer nicht schon scannt, hat ein höheres Risiko. Und könnte zum Scannen gezwungen werden.
Einen konkreten und umsetzbaren Vorschlag, wie aus den vielen Einzelaspekten ein Gesamtrisiko ermittelt werden soll, gibt es noch nicht. Während sich manche der Kriterien durch Ja-Nein-Fragen einstufen lassen, befinden sich andere eher auf einem Spektrum von Möglichkeiten. Bedenken äußerten auch die Vertretungen der Mitgliedstaaten in einem Treffen der zugehörigen Ratsarbeitsgruppe sowie die EU-Kommission.
Vor den Details müssen grundlegendere Fragen geklärt werden
Während es in den Vorschlägen zur Risikobewertung bereits um konkrete Umsetzungsaspekte der EU-Verordnung geht, stecken die Verhandlungen an einer viel tieferen Stelle fest: Seit zwei Jahren können sich die Mitgliedstaaten nicht einigen.
Zentrale Fragen hierbei sind: Sollen Inhalte anlasslos und massenhaft gescannt werden, ohne dass es gegen die betroffenen Nutzenden je einen Verdacht gab? Soll das auch verschlüsselte Kommunikation und Inhalte betreffen und wie soll das technisch möglich sein, ohne Verschlüsselung zu brechen oder zu umgehen? Wie soll die Altersbestimmung der Nutzenden ablaufen?
Wie eine Einigung aussehen könnte und ob es dazu kommt, ist derzeit nicht absehbar. Die belgische Ratspräsidentschaft ist noch bis Juli am Zug, danach geht der Vorsitz an Ungarn über.
Diktaturen wie Iran, Russland und China würden dann ihre eigene Überwachung ganz einfach damit legitimieren können indem Sie darauf verweisen das die EU ja genau das gleiche tut wie Sie selbst.
Die EU gefährdet da also ganz bewusst Sicherheit und Leben von Demokratie Aktivisten in anderen Ländern. Ein Trauerspiel ist das.
> Diktaturen wie Iran, Russland und China …
betreiben Desinformation ganz unabhängig davon, wie gut oder schlecht wir uns fühlen oder verhalten. Wir sollten uns mehr darum kümmern, solche Agitation zu bekämpfen, als zu glauben, für irgendein Vorbild dienen zu müssen.
Westliche Staaten betreiben auch Desinformation und nein: Wenn die EU Diktaturen kritisieren möchte, muss sie um jeden Preis darauf achten, dass diese Diktaturen sie ernstnehmen. Und das kann nicht funktionieren solange sie mit beschissenem Beispiel vorangeht.
> Wenn die EU Diktaturen kritisieren möchte, muss sie um jeden Preis darauf achten, dass diese Diktaturen sie ernstnehmen. Und das kann nicht funktionieren solange sie mit beschissenem Beispiel vorangeht.
Es gehört schon eine Portion Überheblichkeit dazu zu glauben, dass sich Diktaturen durch Beispielhaftigkeit, Vorbildlichkeit oder „kritisieren“ beeindrucken lassen würden, denn diese sind daran nicht interessiert. Wirksame Mittel der Wahl gegenüber solchen Machtgebilden wären Positionen der Stärke unter Wahrung eigener freiheitlicher Rechtsstaatlichkeit.
> Wirksame Mittel der Wahl gegenüber solchen Machtgebilden wären Positionen der Stärke unter Wahrung eigener freiheitlicher Rechtsstaatlichkeit.
Und schon hast du dich argumentativ ausgedribbelt, denn damit würden sie den Diktaturen mit gutem Beispiel vorangehen um von ihnen ernst genommen zu werden.
Ebenfalls könnte künftige Regierung Meinungsfreiheit immer mehr einschränken?
„Können Nutzende Inhalte speichern oder Screenshots erstellen?“
Das speichern von Inhalten soll jetzt also ein Risiko darstellen.. Ah ja… Dass ohne Speichern von Inhalten ein entsprechender Dienst für Nutzer quasi wertlos ist, ist denen wohl nicht klar.
„In dieser Rangliste sind Aktivitäten mit direkter Echtzeitkommunikation (Livestreaming, Messaging) aufgrund ihrer unmittelbaren und potenziell ungefilterten Natur am stärksten gefährdet“
Am stärksten gefährdet sollen also Personen sein, wenn sie ungefiltert kommunizieren… Aha… Also aufs analoge Leben übertragen dürfen dann Personen nur noch von Angesicht zu Angesicht kommunizieren, wenn sie in eine Überwachungskamera oder in ein verwanztes Mikrofon sprechen, womit alles aufgezeichnet und bei Erwähnung eines bestimmten Wortes bzw beim Zeigen bestimmter Bilder direkt an Strafverfolger übertragen wird?
Politiker und staatliche Organe heulen heute schon rum wegen Geburtenrückgang und Überalterung der Gesellschaft.
Um das wie viel fache wird sich dieses Problem wohl irgendwann verstärken, wenn im Namen des „Kinderschutzes“ immer mehr solcher Maßnahmen beschlossen werden und – so hart das auch klingen mag – Kinder immer mehr zum Risiko werden, weil wegen ihnen die Erwachsenen – und v.a. die eigenen Eltern – unter permanenten Generalverdacht gestellt werden und ihre Sicherheit und Rechte immer weiter abgebaut werden?
Niemand aus meinem Bekanntenkreis die größtenteils Gebildete und Akademiker mit Kindern sind, glaubt noch ernsthaft daran, daß das zum Schutze der Kinder eingeführt werden soll. Das Argument „Kinder“ wird gefühlt überall nur noch als Alibi angefürt. Wir nehmen im Privaten auch Beruflichen Umfeld diese Entwicklung mit Enttäuschung und Unverständnis auf. Als Mama von zwei Mädels und Erzieherin frage ich mich ernsthaft, wie eine Chatkontrolle jemals eine solide Aufklärung von Kindern und deren Eltern ersetzen soll? In diesen Bereichen muss mehr gefödert werden. Aufklärung und niederschwelliger Zugang zu Aufklärungs- und Beratungsangeboten sind enorm wichtig und haben aus meiner Erfahrung heraus gezeigt, daß so viele Unklarheiten und Unsicherheiten aus der Welt geschafft werden konnten. Aleks
„Aufklärung und niederschwelliger Zugang zu Aufklärungs- und Beratungsangeboten sind enorm wichtig“
… und genau die werden ja ebenfalls aus „Kinderschutz“ – bzw „Jugendschutzgründen“ massenhaft blockiert
Bsp:
https://netzpolitik.org/2024/verhuetung-erst-ab-18-deutschlands-wichtigster-jugendschutz-filter-blockiert-hilfsangebote/
und
https://netzpolitik.org/2024/jugendschutz-filter-jusprog-noch-mehr-blockierte-hilfeseiten-entdeckt/
Die Antwort auf die Frage, wie eine Chatkontrolle eine solide Aufklärung ersetzt, ist allerdings sehr einfach:
Gar nicht. Sie konnte es nie, sie kann es nicht und sie wird es niemals können.
Ganz im Gegenteil. Sie verhindert den Austausch zu diesen Themen ist nur eine weitere Methode, um Kindern den Zugang zu wichtigen Informationen vorzuenthalten.
Das Problem ist, dass die selbst ernannten „Kinderschützer“ aber auch nicht merken, dass sie mit ihren Maßnahmen den jetzigen und vor allem zukünftigen Kindern einen unvorstellbaren Schaden zufügen.
Dann ähm , es schafft Arbeitsplätze? /Ironie off
Sichere Dienste zuerst … Chatkontrolle … – DURCHATMEN, ok, zuerst mal die KI anwerfen: was bedeutet das?
-> Abschaffen sicherer Dienste.
Jetzt sind noch mehr Faktoren offenbart worden, was die ebenfalls als hohes Risiko einstufen.
https://www.patrick-breyer.de/leak-eu-regierungen-wollen-datenschutzfreundliche-und-verschluesselte-messaging-dienste-mit-chatkontrolle-bestrafen/
Kurz gesagt: Je mehr Maßnahmen ein Dienst zum Schutz der Nutzer ergreift, desto höher fällt er in der Risikobewertung und soll zur Chatkontrolle gezwungen werden. Und dabei geht es nicht nur um Verschlüsselung, auch um Nutzbarkeit unter Pseudonymen, ohne Nutzeraccount etc. Selbst die Möglichkeit den Dienst per VPN nutzen zu können, soll sein Risiko erhöhen (was an sich ja schon absurd ist – man kann diese Dienste theoretisch doch alle über VPN nutzen?).
Wenn sie damit durchkämen, würden wohl paradoxerweise unverschlüsselte E-Mails zur „sichersten“ Kommunikationsart und verschlüsselte Messenger zur gefährlichsten.
Nach diesem Leak dürfte es – eigentlich – niemanden mehr geben, der dieser ewigen „Denkt doch an die armen Kinder“- Farce noch glaubt.
Noch deutlicher kann man nicht zeigen, dass das Ziel nicht der Schutz von irgendwem – geschweigen denn Kindern – ist, sondern einzig und allein die Zerstörung von Anonymität, Sicherheit und Grundrechten der Bürger.